huggingface / huggingface/diffusers

Whether lohaconfig is supported in the convert_state_dict_to_diffusers method

Abierto
#10,899 2 comentarios 0 reacciones 0 asignados Ver en GitHub
stale
Lenguaje dominante
Python
Estrellas
34.5k
Forks
7.3k
Merge medio
3 d 3 h
PR fusionados (30 d)
91

Descripción

In the train_text_to_image_lora.py file

unet_lora_config = LoraConfig(
r=cfg.rank,
lora_alpha=cfg.rank,
init_lora_weights="gaussian",
target_modules=["to_k", "to_q", "to_v", "to_out.0"],
)
modified to

unet_lora_config = LoHaConfig(
r=cfg.rank,
alpha=cfg.rank,
target_modules=["to_k", "to_q", "to_v", "to_out.0"],
),

unet_lora_state_dict = convert_state_dict_to_diffusers(
get_peft_model_state_dict(unwrapped_unet)
)
in this line, an error will occur. Please tell me how to modify it.

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Empieza en train_text_to_image_lora.py y sigue la llamada a convert_state_dict_to_diffusers después de reemplazar LoraConfig por LoHaConfig. Reproduce el error informado y, a continuación, identifica el comportamiento de conversión requerido para los state-dicts de LoHa; se considera terminado cuando la ruta de configuración de LoHa se convierte correctamente sin el error informado.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
python, pytorch
Área
machine-learning
Tipo de issue
Error
Dificultad
4/5
Tiempo estimado
3-5 días
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
25/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.