[Discussion] High-level API
Abierto
- Lenguaje dominante
- Python
- Estrellas
- 152
- Forks
- 16
- Métricas de merge de PR
- Sin PR fusionados en 30 d
Descripción
Just some random ideas for the ggml-python high-level api.
- [x] Automatic memory / context management
- [x] Simplify backend offloading
- Immediate mode(?)
- File loaders
- On-the-fly Quantization
Guía de contribución
Evaluación
Este issue todavía no se ha evaluado.