AI-Hypercomputer / AI-Hypercomputer/gpu-recipes
G4 GPU Recipes: Old NVIDIA Drivers for G4 Instances
Aperta
- Lingua principale
- Python
- Stelle
- 140
- Fork
- 87
- Merge medio
- 7g 21h
- PR unite (30g)
- 1
Descrizione
The g4 GPU recipes uses CUDA 12.8. When the recommendation is for 13.0+.
Path: inference/g4/single-host-serving/vllm
Please update the images.
Guida per i contributori
Apri la guida per i contributori
Valutazione
Questa issue non è ancora stata valutata.