AI-Hypercomputer / AI-Hypercomputer/gpu-recipes
G4 GPU Recipes: Old NVIDIA Drivers for G4 Instances
Offen
- Vorherrschende Sprache
- Python
- Sterne
- 140
- Forks
- 87
- Ø Merge
- 7 T. 21 Std.
- Gemergte PRs (30 T.)
- 1
Beschreibung
The g4 GPU recipes uses CUDA 12.8. When the recommendation is for 13.0+.
Path: inference/g4/single-host-serving/vllm
Please update the images.
Beitragsleitfaden
Bewertung
Dieses Issue wurde noch nicht bewertet.