abetlen / abetlen/llama-cpp-python
chatml-function-callling not adding tool description to the prompt.
Aberta
- Linguagem predominante
- Python
- Estrelas
- 10.6k
- Forks
- 1.4k
- Métricas de merge de PRs
- Métricas de PR pendentes
Descrição
Tool description is missing in `chatml-funcion-calling` prompt format.
https://github.com/abetlen/llama-cpp-python/blob/803924b02cc8ca7531b70e6497d1ff7b83f75737/llama_cpp/llama_chat_format.py#L3417-L3421
Guia de contribuição
Avaliação
Esta issue ainda não foi avaliada.