abetlen / abetlen/llama-cpp-python

phi3 chat format

オープン
#1,736 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

Hello,

Could you add the chat format for the phi3 models ?

It is described [here](https://huggingface.co/microsoft/Phi-3-medium-128k-instruct) :
```bash
<|user|>\nQuestion<|end|>\n<|assistant|>\nAnswer<|end|>\n
```

Maybe something like this in `llama_chat_format.py` ?

```python
@register_chat_format("phi3")
def format_phi3(
messages: List[llama_types.ChatCompletionRequestMessage],
**kwargs: Any,
) -> ChatFormatterResponse:
_roles = dict(
user="<|user|>\n",
assistant="<|assistant|>\n",
)
_sep = "<|end|>\n"
_messages = _map_roles(messages, _roles)
_messages.append((_roles["assistant"], None))
_prompt = _format_no_colon_single("", _messages, _sep)
return ChatFormatterResponse(prompt=_prompt, stop=_sep)
```

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。