Can't install vllm, llama.cpp
- Linguagem predominante
- Python
- Estrelas
- 2.7k
- Forks
- 1k
- Merge médio
- 7d 14h
- PRs com merge (30d)
- 2
Descrição
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
### To Reproduce
### Expected behavior
### Additional context
Guia de contribuição
Nenhum guia de contribuição indexado para este repositório
Direção de pesquisa
A issue menciona a instalação via pip de vLLM e llama.cpp após uma atualização para CUDA 12, mas não especifica arquivos do repositório, testes ou etapas reproduzíveis. Comece examinando as capturas de tela dos erros vinculadas e o ambiente CUDA da imagem; em seguida, reproduza as duas instalações. O trabalho estará concluído quando for determinado se a imagem oferece suporte a esses pacotes e um resultado verificado for registrado.
Escrita pelo modelo de indexação a partir do texto da issue.
Avaliação
- Stack de tecnologia
- python
- Domínio
- ai, devops
- Tipo de issue
- Bug
- Dificuldade
- 4/5
- Tempo estimado
- 3-5 dias
- Status de atividade
- Estagnada
- Clareza
- Precisa de esclarecimento
- Facilidade para iniciantes
- 15/100