abetlen / abetlen/llama-cpp-python
Add support T5 (encode-decoder) models at API level and server
オープン
enhancement
- 主要言語
- Python
- スター
- 10.6k
- フォーク
- 1.4k
- PR マージ指標
- PR 指標を取得中
説明
Ciao Andrei,
following the latest changes on llama.cpp repo
[https://github.com/ggerganov/llama.cpp/issues/5763](https://github.com/ggerganov/llama.cpp/issues/5763)
can you tell me if this is going to be art of your amazing repo?
In case it is not, can you provide some instructions to replicate at low Level API the same steps done by lama-cli?
we can start using amazing models like LaMini-Flan-T5-248M with llama-cpp-python.
thanks
コントリビューションガイド
評価
この issue はまだ評価されていません。