aws / aws/sagemaker-python-sdk

PyTorch image_uris for graviton is outdated

Aperta Adatta ai principianti
#5,532 1 commento 1 reazione 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
2.3k
Fork
1.3k
Merge medio
1g 22h
PR unite (30g)
35

Descrizione

The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.

The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363

Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796

## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Apri sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json alle voci inference_graviton citate nell’issue. Confronta questi URI con l’elenco dei container Graviton di SageMaker e con il commit collegato di Deep Learning Containers, quindi aggiorna la voce obsoleta della versione di PyTorch; il lavoro è completato quando l’SDK espone l’URI dell’immagine 2.6.0 disponibile per le distribuzioni Graviton.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
aws, python, pytorch
Ambito
cloud, machine-learning
Tipo di issue
Bug
Difficoltà
2/5
Tempo stimato
1-3 ore
Stato di attività
Tranquilla
Chiarezza
Specificata chiaramente
Idoneità per principianti
74/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.