abetlen / abetlen/llama-cpp-python
Recurrent errors in server mode
Ouverte
bug
- Langage dominant
- Python
- Étoiles
- 10.6k
- Forks
- 1.4k
- Métriques de merge des PR
- Métriques de PR en attente
Description
It happens when I bombards the server with many requests.
The errors are either RuntimeError, e.g., `RuntimeError: Could not convert data into a valid instance of typing.Optional[typing.List[openai.types.chat.chat_completion_message_tool_call.ChatCompletionMessageToolCall]])`, or RecursionError, e.g., `exceeded while calling a Python object`
Guide de contribution
Ouvrir le guide de contribution
Évaluation
Cette issue n'a pas encore été évaluée.