abetlen / abetlen/llama-cpp-python

DeepSeek-R1-Distill-Qwen-1.5B inference answer is wrong

オープン
#1,949 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

I encountered the following problem when using llama cpp python on Mac. The model's answer is completely unreasonable. The red box contains the question and answer.

![Image](https://github.com/user-attachments/assets/7ec01319-ff12-4de8-aab6-77e701de2fc3)

The configuration is as follows:
**model:** DeepSeek-R1-Distill-Qwen-1.5B.gguf
**Quantization:** Q4_K_M
**llama_cpp_python:** 0.3.7
**API:** create_chat_completion
**model input:**[{'role': 'system', 'content': 'you are a helpful assistant'}, {'role': 'user', 'content': 'There are 20 chickens and rabbits in a cage. It is known that these chickens and rabbits have 56 legs in total. Chickens have two legs and rabbits have four legs. How many chickens and rabbits are there in the cage?'}]

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。