aws / aws/sagemaker-python-sdk
PyTorch image_uris for graviton is outdated
- Lingua principale
- Python
- Stelle
- 2.3k
- Fork
- 1.3k
- Merge medio
- 1g 22h
- PR unite (30g)
- 35
Descrizione
The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.
The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363
Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796
## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
Apri sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json alle voci inference_graviton citate nell’issue. Confronta questi URI con l’elenco dei container Graviton di SageMaker e con il commit collegato di Deep Learning Containers, quindi aggiorna la voce obsoleta della versione di PyTorch; il lavoro è completato quando l’SDK espone l’URI dell’immagine 2.6.0 disponibile per le distribuzioni Graviton.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- aws, python, pytorch
- Ambito
- cloud, machine-learning
- Tipo di issue
- Bug
- Difficoltà
- 2/5
- Tempo stimato
- 1-3 ore
- Stato di attività
- Tranquilla
- Chiarezza
- Specificata chiaramente
- Idoneità per principianti
- 74/100