abetlen / abetlen/llama-cpp-python

Add the possibility to pass all the generation parameters to the API of the server

Aberta
#1,151 0 comentários 0 reações 0 responsáveis Ver no GitHub
enhancement
Linguagem predominante
Python
Estrelas
10.6k
Forks
1.4k
Métricas de merge de PRs
Métricas de PR pendentes

Descrição

Add the possibility to pass to the REST API of the server in the docker image ghcr.io/abetlen/llama-cpp-python:latest all the generation runtime parameters like temperature, repeat_penalty, max_tokens, grammar, stop, top_k, etc.

Guia de contribuição

Abrir o guia de contribuição

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.