Project-MONAI / Project-MONAI/tutorials

Pretrained model not compatible with downstream training

Abierto
#1,249 1 comentario 0 reacciones 0 asignados Ver en GitHub

Nadie ha tomado este issue todavía.

Lenguaje dominante
Jupyter Notebook
Estrellas
2.5k
Forks
803
Merge medio
6 d 22 h
PR fusionados (30 d)
3

Descripción

I am having some issues using a private pretrained encoder weights. When following the swin-unetr pretrain repo to train a pretrained encoder weights, the model can't be loaded for downstream segmentation training. Here is the error:

KeyError: 'module.patch_embed.proj.weight'

Is there anything that might be missing from the pretrain repo? Would it be possible to fix this issue without retraining? Thank you!!

Guía de contribución

Abrir la guía de contribución

Primeros pasos

  1. Lee el issue completo y luego la guía de contribución del proyecto.
  2. Comenta en el issue que vas a ocuparte — evita que dos personas hagan lo mismo.
  3. Haz un fork del repositorio y trabaja en una rama.
  4. Abre un pull request que haga referencia al número del issue.

Línea de trabajo

Comienza con el swin-unetr pretrain repo y la ruta de entrenamiento de segmentación downstream; después, sigue cómo se cargan los pesos privados preentrenados del encoder cuando se produce el KeyError para module.patch_embed.proj.weight. Se considera terminado determinar si los pesos preentrenados pueden cargarse para la segmentación downstream sin volver a entrenar, o documentar el requisito de compatibilidad que falta.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
jupyter-notebook, pytorch
Área
machine-learning
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
25/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.