abetlen / abetlen/llama-cpp-python
Add support for cfg-negative-prompt
Aberta
enhancement
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PRs
- Métricas de PR pendentes
Descrição
**Is your feature request related to a problem? Please describe.**
Llama.cpp has a parameter "cfg_negative_prompt" which would be useful to use to better shape outputs.
**Describe the solution you'd like**
Adding support for setting cfg_negative_prompt for generation via chat and especially the create_completion method.
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.