Azure / Azure/MachineLearningNotebooks

Slow performance issue with the Pytorch Horovod example

未關閉
#1,237 0 則留言 0 個 reaction 已指派 1 人 已被 @mx-iao 認領 在 GitHub 檢視
ADO product-issue Training
主要語言
Jupyter Notebook
星號
4.4k
分支
2.6k
PR 合併指標
30 天內沒有已合併 PR

描述

In the `DataLoader` instantiation step, you need to pass `num_workers > 0` (4 caused a 2x-speedup for me on a 4 core node) to have a performance higher than the single node execution. Without this parameter passed to the `DataLoader` constructor, the performance is slower than the single `MNIST` example.

Link to the file: [https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/ml-frameworks/pytorch/distributed-pytorch-with-horovod/pytorch_horovod_mnist.py](https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/ml-frameworks/pytorch/distributed-pytorch-with-horovod/pytorch_horovod_mnist.py)

Line: 62 and 72.

貢獻指南

這個儲存庫沒有索引到貢獻指南

評估

這個 Issue 還沒有評估資料。

把新 issue 寄到你的電子郵件信箱

精選適合新手參與的 GitHub issue 摘要。