abetlen / abetlen/llama-cpp-python

Recurrent errors in server mode

Offen
#1,541 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
bug
Vorherrschende Sprache
Python
Sterne
10.6k
Forks
1.4k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

It happens when I bombards the server with many requests.
The errors are either RuntimeError, e.g., `RuntimeError: Could not convert data into a valid instance of typing.Optional[typing.List[openai.types.chat.chat_completion_message_tool_call.ChatCompletionMessageToolCall]])`, or RecursionError, e.g., `exceeded while calling a Python object`

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.