3lLobo / 3lLobo/elasticMl

Q on W 😏

Aperta
#21 0 commenti 0 reazioni 1 assegnatario Rivendicata da @3lLobo Vedi su GitHub
Lingua principale
Jupyter Notebook
Stelle
0
Fork
0
Metriche di merge delle PR
Nessuna PR unita negli ultimi 30g

Descrizione

Quantize on Windows.

- Optimum-cli quantization of Llama runs out of memory on WSL.
- [x] Windows now supports python3.11 from W-store.
- [ ] Install cuda 12.1 and compile torch with cuda.

Guida per i contributori

Nessuna guida per i contributori indicizzata per questo repository

Valutazione

Questa issue non è ancora stata valutata.

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.