huggingface / huggingface/diffusers

Hidream Model loading takes too long — any way to speed it up?

Abierto
#11,575 8 comentarios 0 reacciones 0 asignados Ver en GitHub
stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

Hi, thanks for this great project.

I'm running Hidream with this library in a serverless environment and facing major delays during model loading. It can be very frustrating, especially for time-sensitive or ephemeral deployments.

I've tried everything I could think of to reduce the loading time, but nothing has worked so far. Does anyone have any tips, tricks, or even sample code to help speed up the model initialization?

Any guidance would be greatly appreciated!

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

El informe no menciona archivos, pruebas ni puntos de entrada, y solicita en general consejos o código de ejemplo. Empieza por establecer una medición reproducible de la carga de Hidream en el entorno serverless indicado e identificar la ruta de inicialización implicada. Para darlo por terminado, sería necesario acordar una optimización que demuestre una mejora del tiempo de carga.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
machine-learning
Tipo de issue
Error
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
20/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.