NCCL（NVIDIACollectiveCommunicationsLibrary）是由NVIDIA开发的一种高性能的多GPU通信库，用于在多个NVIDIAGPU之间实现快速的数据传输和协同计算。它可以在深度学习和高性能计算领域中提供分布式训练和数据并行加速的支持。NCCL实现了针对NVIDIAGPU和网络进行优化的多GPU和多节点通信基元。NCCL提供了诸如全收集（all-gather）、全归约（all-reduce）、广播（broadcast）、归约（reduce）、归约散射（reduce-scatter）以及点对点发送和接收...

阅读全文

Horovod是一套支持TensorFlow,Keras,PyTorch,andApacheMXNet的分布式训练框架，由Uber构建并开源的第三方库，在分布式训练中性能优于原生像Tensorflow这种ps，worker架构，且代码改动量少，无需在多个节点多次执行脚本命令，使用起来方便。首先我们需要安装nccl可以去官网查找对应版本，https://developer.nvidia.com/nccl/nccl-legacy-downloads我下的ubuntu20.04这个版本，直接安装dpkg -i nccl-l...

阅读全文