abetlen / abetlen/llama-cpp-python
Do llama.cpp support input_embeds?
Aberta
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PRs
- Métricas de PR pendentes
Descrição
Do llama.cpp support input_embeds? Just like `transformers` support `input_embeds` in `model.generate` function.
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.