huggingface / huggingface/diffusers
[Quantization] enable multi-backend `bitsandbytes`
Offen
bitsandbytes
contributions-welcome
quantization
wip
- Vorherrschende Sprache
- Python
- Sterne
- 34.5k
- Forks
- 7.3k
- Ø Merge
- 3 T. 3 Std.
- Gemergte PRs (30 T.)
- 91
Beschreibung
Similar to https://github.com/huggingface/transformers/pull/31098/
Beitragsleitfaden
Rechercherichtung
Beginne mit der Durchsicht des im Issue referenzierten Transformers-Pull-Requests https://github.com/huggingface/transformers/pull/31098/ und vergleiche dessen bitsandbytes-Ansatz mit Unterstützung mehrerer Backends mit diffusers. Als abgeschlossen gilt die Aufgabe, wenn diffusers die bitsandbytes-Quantisierung mit Unterstützung mehrerer Backends unterstützt und das relevante Verhalten durch die bestehenden Checks des Projekts abgedeckt ist.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- python, pytorch
- Bereich
- machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100