abetlen / abetlen/llama-cpp-python
Do llama.cpp support input_embeds?
Abierto
- Lenguaje dominante
- Python
- Estrellas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PR
- Métricas de PR pendientes
Descripción
Do llama.cpp support input_embeds? Just like `transformers` support `input_embeds` in `model.generate` function.
Guía de contribución
Evaluación
Este issue todavía no se ha evaluado.