huggingface / huggingface/diffusers
Hidream Model loading takes too long — any way to speed it up?
- Lenguaje dominante
- Python
- Estrellas
- 34.5k
- Forks
- 7.3k
- Merge medio
- 3 d 3 h
- PR fusionados (30 d)
- 91
Descripción
Hi, thanks for this great project.
I'm running Hidream with this library in a serverless environment and facing major delays during model loading. It can be very frustrating, especially for time-sensitive or ephemeral deployments.
I've tried everything I could think of to reduce the loading time, but nothing has worked so far. Does anyone have any tips, tricks, or even sample code to help speed up the model initialization?
Any guidance would be greatly appreciated!
Guía de contribución
Línea de trabajo
El informe no menciona archivos, pruebas ni puntos de entrada, y solicita en general consejos o código de ejemplo. Empieza por establecer una medición reproducible de la carga de Hidream en el entorno serverless indicado e identificar la ruta de inicialización implicada. Para darlo por terminado, sería necesario acordar una optimización que demuestre una mejora del tiempo de carga.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python, pytorch
- Área
- machine-learning
- Tipo de issue
- Error
- Dificultad
- 5/5
- Tiempo estimado
- Más de una semana
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 20/100