abetlen / abetlen/llama-cpp-python
Does this lib support contrastive search decoding ?
Đang mở
enhancement
- Ngôn ngữ chính
- Python
- Star
- 10.6k
- Fork
- 1.4k
- Chỉ số merge pull request
- Chỉ số pull request đang chờ
Mô tả
Hi @abetlen,
I checked the parameters in both ```__call__``` and ```create_completion``` method but did not see ```penalty_alpha``` param which represents **contrastive search** decoding. Can you update the decoding strategy soon @abetlen ?
Hướng dẫn đóng góp
Đánh giá
Issue này chưa được đánh giá.