[Discussion] High-level API
Ouverte
- Langage dominant
- Python
- Étoiles
- 152
- Forks
- 16
- Métriques de merge des PR
- Aucune PR mergée en 30 j
Description
Just some random ideas for the ggml-python high-level api.
- [x] Automatic memory / context management
- [x] Simplify backend offloading
- Immediate mode(?)
- File loaders
- On-the-fly Quantization
Guide de contribution
Ouvrir le guide de contribution
Évaluation
Cette issue n'a pas encore été évaluée.