Support passing grammars to server on the command line.

オープン

#636 2023年8月24日に作成コメント 0 件リアクション 4 件担当者 0 名 GitHub で見る

enhancement

説明

**Is your feature request related to a problem? Please describe.**

The `python3 -m llama_cpp.server` command doesn't have a parameter to pass along a grammar the same way llama.cpp does.

**Describe the solution you'd like**

A `--grammar` command line parameter for the server.

Thanks!!

この issue はまだ評価されていません。