abetlen / abetlen/llama-cpp-python

Does it support the gguf format model of Qwen2-VL-2B-Instruct

Offen
#1,895 7 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
10.6k
Forks
1.4k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

**Is your feature request related to a problem? Please describe.**
I would like to support whether the current llama-cpp-python supports the gguf format model of Qwen2-VL-2B-Instruct?

**Describe the solution you'd like**
Does it support the gguf format model of Qwen2-VL-2B-Instruct.

**Describe alternatives you've considered**
Does it support the gguf format model of Qwen2-VL-2B-Instruct.

**Additional context**
Add any other context or screenshots about the feature request here.

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.