Azure / Azure/MachineLearningNotebooks

Slow performance issue with the Pytorch Horovod example

Ouverte
#1,237 0 commentaires 0 réactions 1 personne assignée Réclamée par @mx-iao Voir sur GitHub
ADO product-issue Training
Langage dominant
Jupyter Notebook
Étoiles
4.4k
Forks
2.6k
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

In the `DataLoader` instantiation step, you need to pass `num_workers > 0` (4 caused a 2x-speedup for me on a 4 core node) to have a performance higher than the single node execution. Without this parameter passed to the `DataLoader` constructor, the performance is slower than the single `MNIST` example.

Link to the file: [https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/ml-frameworks/pytorch/distributed-pytorch-with-horovod/pytorch_horovod_mnist.py](https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/ml-frameworks/pytorch/distributed-pytorch-with-horovod/pytorch_horovod_mnist.py)

Line: 62 and 72.

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Évaluation

Cette issue n'a pas encore été évaluée.

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.