什么是 HCCL集合通信库__
集合通信库（ Huawei Collective Communication Library ，简称HCCL）是基于昇腾硬件的高性能集合通信库，提供单机多卡以及多机多卡间的数据并行、模型并行集合通信方案。HCCL支持AllReduce、Broadcast、Allgather、ReduceScatter、AlltoAll等通信原语，Ring、Mesh、HD等通信算法，在HCCS、RoCE和PCIe高速链路实现集合通信。
高性能集合通信算法
提升大规模并行计算通信效率
服务器内基础拓扑为Full Mesh互联拓扑，每个Full Mesh互联拓扑内的基础算法为Mesh算法。服务器间为Fat Tree互联拓扑，支持HD、Ring、NHR等通信算法。
计算通信统一硬化调度
降低调度开销，优化硬件资源利用率
专用硬件调度引擎和硬件通信原语，实现计算任务与通信任务全硬化调度，降低调度开销，精准控制系统抖动。
计算通信高性能并发
计算与通信并发流水执行，系统性能进一步提升
“归约”类集合通信操作（ AllReduce 、ReduceScatter 、Reduce）通过随路方式实现，不占用计算资源。计算通信任务并发执行，总执行时长大幅降低。
