Azure / Azure/MachineLearningNotebooks

Run hanging on request for unknown reason

Offen
#1,738 0 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Jupyter Notebook
Sterne
4.4k
Forks
2.6k
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Running a hyperdrive run with a pytorch model I have some of my child runs hanging with a request in the log as below:

2022-04-20 12:27:52,149|azureml.BatchTaskQueueAdd_1_Batches.WaitFlushSource:BatchTaskQueueAdd_1_Batches|DEBUG|[STOP]
2022-04-20 12:27:52,273|azureml._SubmittedRun#HD_e32fc294-eadf-405e-96ac-970bdd35bc49_3.RunHistoryFacade.MetricsClient._post_run_metrics_log_failed_validations-async:False|DEBUG|[STOP]
2022-04-20 12:28:11,735|azureml.core.authentication|DEBUG|Time to expire 1813610.265009 seconds
2022-04-20 12:28:41,739|azureml.core.authentication|DEBUG|Time to expire 1813580.260927 seconds
2022-04-20 12:29:11,739|azureml.core.authentication|DEBUG|Time to expire 1813550.260178 seconds

Expected behaviour:
Run to complete and give metrics

Actual behaviour:
Log shows run is hanging and not posting metrics

Any help with why this is happening is appreciated (or if this is posted in the wrong place I am happy to be directed to the correct place to post this issue)

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Im Bericht wird keine Datei oder kein Test des Repositorys genannt. Beginne damit, einen HyperDrive-Lauf mit einem PyTorch-Modell zu reproduzieren, und untersuche das Protokoll des untergeordneten Laufs rund um die Authentifizierungs- und Metrikmeldungen. Als erledigt gilt die Aufgabe, wenn der Lauf abgeschlossen wird und seine Metriken postet und die Ursache des Hängers identifiziert ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
azure, python, pytorch
Bereich
cloud, machine-learning
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.