Azure / Azure/MachineLearningNotebooks

DatasetConsumptionConfig and PipelineParameter cannot be reused

Abierto
#1,312 3 comentarios 1 reacción 0 asignados Ver en GitHub
ADO bug Data4ML
Lenguaje dominante
Jupyter Notebook
Estrellas
4.4k
Forks
2.6k
Métricas de merge de PR
Sin PR fusionados en 30 d

Descripción

Following the tutorial to create ML datasets as pipeline parameters:
https://github.com/Azure/MachineLearningNotebooks/blob/master/how-to-use-azureml/machine-learning-pipelines/intro-to-pipelines/aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb

This requires the creation of PipelineParameter and then DatasetConsumptionConfig objects.
If you have multiple steps which require the same dataset input, you would expect to be able to use the same PipelineParameter for all the steps. However when that PipelineParameter is used with a DatasetConsumptionConfig this doesn't work.

When building the pipeline we get the error:
`'PipelineDataset' object has no attribute '_get_datapath'`

Seems the object is altered when it is used, so when we use it a second time it breaks.

The work around at the moment is to create a new PipelineParameter for every step that uses the dataset, hence the number of pipeline parameters to configure grows very fast.

Tail end of error log (can't copy/paste text)
![image](https://user-images.githubusercontent.com/10160019/106148035-7ad5de80-6170-11eb-8b6a-a6ff2b451110.png)

Guía de contribución

No hay ninguna guía de contribución indexada para este repositorio

Línea de trabajo

Comienza con el tutorial enlazado aml-pipelines-showcasing-dataset-and-pipelineparameter.ipynb y reproduce la pipeline usando un PipelineParameter con varios objetos DatasetConsumptionConfig. Rastrea la construcción de la pipeline alrededor del error reportado «_get_datapath». Se considera completado cuando la misma entrada de dataset puede reutilizarse en varios pasos y la pipeline se construye correctamente.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
azure, jupyter-notebook, python
Área
machine-learning
Tipo de issue
Error
Dificultad
3/5
Tiempo estimado
1-2 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.