Azure / Azure/MachineLearningNotebooks
DatasetConsumptionConfig and PipelineParameter cannot be reused
- Langage dominant
- Jupyter Notebook
- Étoiles
- 4.4k
- Forks
- 2.6k
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
Following the tutorial to create ML datasets as pipeline parameters:
https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/machine-learning-pipelines/intro-to-pipelines/aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb
This requires the creation of PipelineParameter and then DatasetConsumptionConfig objects.
If you have multiple steps which require the same dataset input, you would expect to be able to use the same PipelineParameter for all the steps. However when that PipelineParameter is used with a DatasetConsumptionConfig this doesn't work.
When building the pipeline we get the error:
`'PipelineDataset' object has no attribute '_get_datapath'`
Seems the object is altered when it is used, so when we use it a second time it breaks.
The work around at the moment is to create a new PipelineParameter for every step that uses the dataset, hence the number of pipeline parameters to configure grows very fast.
Tail end of error log (can't copy/paste text)

Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Piste de recherche
Commencez par le tutoriel lié aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb et reproduisez le pipeline en utilisant un PipelineParameter avec plusieurs objets DatasetConsumptionConfig. Suivez la construction du pipeline autour de l’erreur signalée « _get_datapath ». C’est terminé lorsque la même entrée de dataset peut être réutilisée entre les étapes et que le pipeline se construit correctement.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Stack technique
- azure, jupyter-notebook, python
- Domaine
- machine-learning
- Type d'issue
- Bug
- Difficulté
- 3/5
- Temps estimé
- 1-2 jours
- Activité
- À l'abandon
- Clarté
- Plutôt claire
- Accessibilité débutants
- 35/100