Can't install vllm, llama.cpp
- 主要言語
- Python
- スター
- 2.7k
- フォーク
- 1k
- 平均マージ
- 7日 14時間
- マージ済み PR(30日)
- 2
説明
## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:


### To Reproduce
### Expected behavior
### Additional context
コントリビューションガイド
このリポジトリのコントリビューションガイドは索引されていません
調査の方向性
この issue では、CUDA 12 への更新後の vLLM と llama.cpp の pip インストールについて言及されていますが、リポジトリのファイル、テスト、再現可能な手順は示されていません。まず、リンクされたエラーのスクリーンショットとイメージの CUDA 環境を調べ、その後、両方のインストールを再現してください。イメージがこれらのパッケージをサポートしているかどうかを判定し、検証済みの結果を記録できれば完了です。
索引モデルが issue の本文から書いたものです。
評価
- 技術スタック
- python
- 領域
- ai, devops
- issue の種類
- バグ
- 難易度
- 4/5
- 見積もり時間
- 3〜5日
- 活発さ
- 停滞
- 明瞭さ
- 説明が足りない
- 初心者へのやさしさ
- 15/100