abetlen / abetlen/llama-cpp-python

Add support of Qwen2vl

Offen
#1,811 4 Kommentare 17 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
10.6k
Forks
1.4k
PR-Merge-Kennzahlen
PR-Kennzahlen ausstehend

Beschreibung

**Is your feature request related to a problem? Please describe.**
Currently I am using Qwen2vl, this is the best vlm model for my project. I hope llama-cpp-python can support this model. I tried to use llama.cpp to build a server, but llama.cpp is not allow to use mm-proj.

**Describe the solution you'd like**
Support the qwen2vl model and use it like other vlm models.

Beitragsleitfaden

Beitragsleitfaden öffnen

Bewertung

Dieses Issue wurde noch nicht bewertet.

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.