abetlen / abetlen/llama-cpp-python

Is llama-cpp-python supports Llama-4?

Aberta
#2,014 0 comentários 0 reações 0 responsáveis Ver no GitHub
Linguagem predominante
Python
Estrelas
10.6k
Forks
1.4k
Métricas de merge de PRs
Métricas de PR pendentes

Descrição

I have tried gguf quantized version of the Llama-4 which is not being supported,

Is there anyone who can suggest, if I am missing something?

Guia de contribuição

Abrir o guia de contribuição

Avaliação

Esta issue ainda não foi avaliada.

Receba novas issues na sua caixa de entrada

Um resumo curto de issues do GitHub para quem está começando.