[FEATURE REQUEST]
Offen
- Vorherrschende Sprache
- C
- Sterne
- 22.3k
- Forks
- 2.1k
- Ø Merge
- 1 T. 3 Std.
- Gemergte PRs (30 T.)
- 4
Beschreibung
Add a new parameter to allow changing the served model name like in VLLM or llama.cpp:
```
vLLM: --served-model-name foo
llama.cpp: --alias foo
```
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.