abetlen / abetlen/llama-cpp-python
Recurrent errors in server mode
Offen
bug
- Vorherrschende Sprache
- Python
- Sterne
- 10.6k
- Forks
- 1.4k
- PR-Merge-Kennzahlen
- PR-Kennzahlen ausstehend
Beschreibung
It happens when I bombards the server with many requests.
The errors are either RuntimeError, e.g., `RuntimeError: Could not convert data into a valid instance of typing.Optional[typing.List[openai.types.chat.chat_completion_message_tool_call.ChatCompletionMessageToolCall]])`, or RecursionError, e.g., `exceeded while calling a Python object`
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.