huggingface / huggingface/diffusers
Lora does not support module_to_save()
- Lenguaje dominante
- Python
- Estrellas
- 34.5k
- Forks
- 7.3k
- Merge medio
- 3 d 3 h
- PR fusionados (30 d)
- 91
Descripción
### Describe the bug
When we set
```
LoraConfig(
r=args.rank,
lora_alpha=args.lora_alpha,
init_lora_weights=True,
target_modules=["to_k", "to_q", "to_v", "to_out.0"],
modules_to_save=["other"],
)
```
if `modules_to_save` is not none, then we load the adapter,`diffusers/src/diffusers/loaders/lora_pipeline.py` line 2681 `is_correct_format = all("lora" in key for key in state_dict.keys())` will be `False`
### Reproduction
See Descrination
### Logs
_No response_
### System Info
diffusers 0.32.0
### Who can help?
_No response_
Guía de contribución
Línea de trabajo
Comienza en diffusers/src/diffusers/loaders/lora_pipeline.py, en la línea 2681, e inspecciona cómo se comporta la comprobación del formato de state_dict cuando LoraConfig incluye modules_to_save. Reproduce la configuración indicada con diffusers 0.32.0 y verifica después que la carga de un adaptador con modules_to_save se acepta sin producir el resultado de formato incorrecto.
Escrito por el modelo de indexación a partir del texto del issue.
Evaluación
- Stack tecnológico
- python, pytorch
- Área
- machine-learning
- Tipo de issue
- Error
- Dificultad
- 3/5
- Tiempo estimado
- 1-2 días
- Estado de actividad
- Estancado
- Claridad
- Necesita aclaración
- Aptitud para principiantes
- 35/100