[Discussion] High-level API
Aperta
- Lingua principale
- Python
- Stelle
- 152
- Fork
- 16
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
Just some random ideas for the ggml-python high-level api.
- [x] Automatic memory / context management
- [x] Simplify backend offloading
- Immediate mode(?)
- File loaders
- On-the-fly Quantization
Guida per i contributori
Apri la guida per i contributori
Valutazione
Questa issue non è ancora stata valutata.