Kaggle / Kaggle/docker-python

Can't install vllm, llama.cpp

オープン
#1,369 コメント 0 件 リアクション 0 件 担当者 0 名 GitHub で見る
bug help wanted
主要言語
Python
スター
2.7k
フォーク
1k
平均マージ
7日 14時間
マージ済み PR(30日)
2

説明

## 🐛 Bug
Recently, CUDA has updated to12. However, I'm encountering errors when attempting to install VLLM and llama.cpp using pip. Could there be an issue with my CUDA installation? For reference, the error messages are:
![image](https://github.com/Kaggle/docker-python/assets/67683748/3d97680d-27be-4c8e-abc9-544bcb4867f9)
![image](https://github.com/Kaggle/docker-python/assets/67683748/603b1cb2-23ee-4677-9095-2796ced933d5)

### To Reproduce

### Expected behavior

### Additional context

コントリビューションガイド

このリポジトリのコントリビューションガイドは索引されていません

調査の方向性

この issue では、CUDA 12 への更新後の vLLM と llama.cpp の pip インストールについて言及されていますが、リポジトリのファイル、テスト、再現可能な手順は示されていません。まず、リンクされたエラーのスクリーンショットとイメージの CUDA 環境を調べ、その後、両方のインストールを再現してください。イメージがこれらのパッケージをサポートしているかどうかを判定し、検証済みの結果を記録できれば完了です。

索引モデルが issue の本文から書いたものです。

評価

技術スタック
python
領域
ai, devops
issue の種類
バグ
難易度
4/5
見積もり時間
3〜5日
活発さ
停滞
明瞭さ
説明が足りない
初心者へのやさしさ
15/100

新しい issue をメールで受け取る

初心者向けの GitHub issue を短くまとめたダイジェスト。