Audio upload/transcribe not working on llama-swap
@mythz ci sta già lavorando.
Dal 1/11/2025.
Valutazione
Questa issue non è ancora stata valutata.
Descrizione
Getting a 500 error when attempting to upload/transcribe audio files (only tested a small mp3). llama-server saying that audio isn't supported (but it works fine with OWUI).
llms output llama-swap error log:
Oct 31 11:34:57 phoenix llama-swap[63587]: main: server is listening on http://127.0.0.1:5818 - starting the main loop
Oct 31 11:34:57 phoenix llama-swap[63587]: srv update_slots: all slots are idle
Oct 31 11:34:58 phoenix llama-swap[63587]: srv log_server_r: request: GET /health 127.0.0.1 200
Oct 31 11:34:58 phoenix llama-swap[63587]: [INFO] <Qwen3-VL-8B-Instruct-BF16> Health check passed on http://localhost:5818/health
Oct 31 11:34:58 phoenix llama-swap[63587]: [DEBUG] <Qwen3-VL-8B-Instruct-BF16> swapState() State transitioned from starting to ready
Oct 31 11:34:58 phoenix llama-swap[63587]: got exception: {"code":500,"message":"audio input is not supported - hint: if this is unexpected, you may need to provide the mmproj","type":"server_error"}
Oct 31 11:34:58 phoenix llama-swap[63587]: srv log_server_r: request: POST /v1/chat/completions 127.0.0.1 500
Oct 31 11:34:58 phoenix llama-swap[63587]: [DEBUG] <Qwen3-VL-8B-Instruct-BF16> request /v1/chat/completions - start: 10.265148086s, total: 10.277691021s
Oct 31 11:34:58 phoenix llama-swap[63587]: [WARN] metrics skipped, HTTP status=500, path=/v1/chat/completions
Oct 31 11:34:58 phoenix llama-swap[63587]: [INFO] Request ::1 "POST /v1/chat/completions HTTP/1.1" 500 151 "llms.py/1.0" 10.278364192s
Open-WebUI output:
Oct 31 11:36:40 phoenix llama-swap[63587]: eval time = 637.21 ms / 19 tokens ( 33.54 ms per token, 29.82 tokens per second)
Oct 31 11:36:40 phoenix llama-swap[63587]: total time = 704.88 ms / 242 tokens
Oct 31 11:36:40 phoenix llama-swap[63587]: slot release: id 0 | task 145 | stop processing: n_tokens = 248, truncated = 0
Oct 31 11:36:40 phoenix llama-swap[63587]: srv update_slots: all slots are idle
Oct 31 11:36:40 phoenix llama-swap[63587]: srv log_server_r: request: POST /v1/chat/completions 127.0.0.1 200
Oct 31 11:36:40 phoenix llama-swap[63587]: [DEBUG] <Qwen3-VL-8B-Instruct-BF16> request /v1/chat/completions - start: 0s, total: 707.956034ms
Oct 31 11:36:40 phoenix llama-swap[63587]: [INFO] Request ::1 "POST /v1/chat/completions HTTP/1.1" 200 661 "Python/3.12 aiohttp/3.12.15" 708.027884ms
- Lingua principale
- JavaScript
- Stelle
- 629
- Fork
- 31
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Guida per i contributori
Nessuna guida per i contributori indicizzata per questo repository
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Altre issue di ServiceStack/llms
-
Error adding custom provider (perplexity) "unsupported operand type(s) for +=: 'int' and 'str'" Aperta
Difficoltà 3/5 1-2 giorni Idoneità per principianti 52/100
ServiceStack/llms#42 · 3 commenti ·
-
Support Windows Apertaenhancement help wanted
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
ServiceStack/llms#28 · 2 reazioni ·
-
Google OAuth Apertaenhancement help wanted
Difficoltà 5/5 Più di una settimana Idoneità per principianti 25/100
ServiceStack/llms#15 · 11 commenti ·
-
Difficoltà 4/5 3-5 giorni Idoneità per principianti 35/100
ServiceStack/llms#11 · 3 commenti ·
Tutte le issue di ServiceStack/llms
Issue simili
-
bug
Difficoltà 2/5 1-3 ore Idoneità per principianti 76/100
avniproject/avni-client#2135 ·
-
enhancement
Difficoltà 2/5 1-3 ore Idoneità per principianti 70/100
babalae/bettergi-scripts-list#3674 ·
-
A-Release-Notes C-Editing D-Modest S-Ready-For-Implementation
Difficoltà 2/5 1-3 ore Idoneità per principianti 72/100
bevyengine/bevy-website#2595 ·
-
ecosystem wording
Difficoltà 1/5 Meno di un'ora Idoneità per principianti 90/100
matrix-org/matrix.org#3649 ·
-
Difficoltà 2/5 1-3 ore Idoneità per principianti 88/100
vadimdemedes/ink#1029 ·