Horovod是一套支持TensorFlow,Keras,PyTorch,andApacheMXNet的分布式训练框架，由Uber构建并开源的第三方库，在分布式训练中性能优于原生像Tensorflow这种ps，worker架构，且代码改动量少，无需在多个节点多次执行脚本命令，使用起来方便。首先我们需要安装nccl可以去官网查找对应版本，https://developer.nvidia.com/nccl/nccl-legacy-downloads我下的ubuntu20.04这个版本，直接安装dpkg -i nccl-l...

阅读全文

Horovod是Uber于2017年发布的一个易于使用的高性能的分布式深度学习训练框架，支持TensorFlow、Keras、PyTorch和ApacheMXNet。Horovod的名字来自于俄国传统民间舞蹈，舞者手牵手围成一个圈跳舞，与分布式训练使用Horovod互相通信的场景很像。Horovod的发展吸取了Facebook"TrainingImageNetIn1Hour"与百度"RingAllreduce"的优点，在保证分布式训练性能的同时，兼顾了前端的简洁和对不同深度学习框架的支持，使用...

阅读全文