Azure / Azure/MachineLearningNotebooks

DatasetConsumptionConfig and PipelineParameter cannot be reused

Offen
#1,312 3 Kommentare 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
ADO bug Data4ML
Vorherrschende Sprache
Jupyter Notebook
Sterne
4.4k
Forks
2.6k
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

Following the tutorial to create ML datasets as pipeline parameters:
https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/machine-learning-pipelines/intro-to-pipelines/aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb

This requires the creation of PipelineParameter and then DatasetConsumptionConfig objects.
If you have multiple steps which require the same dataset input, you would expect to be able to use the same PipelineParameter for all the steps. However when that PipelineParameter is used with a DatasetConsumptionConfig this doesn't work.

When building the pipeline we get the error:
`'PipelineDataset' object has no attribute '_get_datapath'`

Seems the object is altered when it is used, so when we use it a second time it breaks.

The work around at the moment is to create a new PipelineParameter for every step that uses the dataset, hence the number of pipeline parameters to configure grows very fast.

Tail end of error log (can't copy/paste text)
![image](https://user-images.githubusercontent.com/10160019/106148035-7ad5de80-6170-11eb-8b6a-a6ff2b451110.png)

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne mit dem verlinkten Tutorial aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb und reproduziere die Pipeline mit einem PipelineParameter und mehreren DatasetConsumptionConfig-Objekten. Verfolge die Pipeline-Erstellung rund um den gemeldeten Fehler „_get_datapath“. Als erledigt gilt die Aufgabe, wenn dieselbe Dataset-Eingabe über mehrere Schritte hinweg wiederverwendet werden kann und die Pipeline erfolgreich erstellt wird.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
azure, jupyter-notebook, python
Bereich
machine-learning
Issue-Typ
Bug
Schwierigkeit
3/5
Geschätzter Aufwand
1-2 Tage
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
35/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.