huggingface / huggingface/diffusers
Allow user to pick which Text Encoders to train with SD3-Medium.
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Python
- Sterne
- 34.5k
- Forks
- 7.3k
- Ø Merge
- 3 T. 3 Std.
- Gemergte PRs (30 T.)
- 91
Beschreibung
**Is your feature request related to a problem? Please describe.**
Kinda yes, it seems both training scripts for LoRA and Dreambooth load all 3 Text Encoders and Tokenizers which leads to high vram usage, 20GB on Rank 32 Lora, batch size 1, with AdamW8Bit
**Describe the solution you'd like.**
Allow users to train the Text Encoder(s) they want.
**Additional context.**
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Beginne damit, die LoRA- und Dreambooth-Trainingsskripte für SD3-Medium zu finden, und verfolge, wo alle drei Text Encoders und Tokenizers geladen werden. Überprüfe zuerst die zugehörige Trainingskonfiguration und das Speicherverhalten. Als abgeschlossen gilt die Aufgabe, wenn Benutzer auswählen können, welche Text Encoder trainiert werden, während nicht ausgewählte Encoder nicht unnötig geladen werden, mit Abdeckung der unterstützten Auswahlmöglichkeiten.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python, pytorch
- Bereich
- machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 45/100