abetlen / abetlen/llama-cpp-python

Add support for cfg-negative-prompt

オープン
#822 コメント 1 件 リアクション 6 件 担当者 0 名 GitHub で見る
enhancement
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

**Is your feature request related to a problem? Please describe.**
Llama.cpp has a parameter "cfg_negative_prompt" which would be useful to use to better shape outputs.

**Describe the solution you'd like**
Adding support for setting cfg_negative_prompt for generation via chat and especially the create_completion method.

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。