huggingface / huggingface/diffusers

Lora does not support module_to_save()

Abierto
#9,810 2 comentarios 0 reacciones 0 asignados Ver en GitHub
bug stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

### Describe the bug

When we set
```
LoraConfig(
r=args.rank,
lora_alpha=args.lora_alpha,
init_lora_weights=True,
target_modules=["to_k", "to_q", "to_v", "to_out.0"],
modules_to_save=["other"],
)
```
if `modules_to_save` is not none, then we load the adapter,`diffusers/src/diffusers/loaders/lora_pipeline.py` line 2681 `is_correct_format = all("lora" in key for key in state_dict.keys())` will be `False`

### Reproduction

See Descrination

### Logs

_No response_

### System Info

diffusers 0.32.0

### Who can help?

_No response_

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Comienza en diffusers/src/diffusers/loaders/lora_pipeline.py, en la línea 2681, e inspecciona cómo se comporta la comprobación del formato de state_dict cuando LoraConfig incluye modules_to_save. Reproduce la configuración indicada con diffusers 0.32.0 y verifica después que la carga de un adaptador con modules_to_save se acepta sin producir el resultado de formato incorrecto.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
machine-learning
Tipo de issue
Error
Dificultad
3/5
Tiempo estimado
1-2 días
Estado de actividad
Estancado
Claridad
Necesita aclaración
Aptitud para principiantes
35/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.