abetlen / abetlen/llama-cpp-python

Add Finetune Support

オープン
#814 コメント 3 件 リアクション 8 件 担当者 0 名 GitHub で見る
enhancement help wanted
主要言語
Python
スター
10.6k
フォーク
1.4k
PR マージ指標
PR 指標を取得中

説明

In the late versions of llama.cpp there are ways to fine-tune the model using LoRA adapters: https://github.com/ggerganov/llama.cpp/pull/2632

However, either I missed it or are there no functions introduced in this PR imported into this project?

**Describe alternatives you've considered**
Sure it's always an option to use a CLI tool, but I guess Python binding can be useful.

コントリビューションガイド

コントリビューションガイドを開く

評価

この issue はまだ評価されていません。

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。