aws / aws/sagemaker-python-sdk

PyTorch image_uris for graviton is outdated

Offen Anfängerfreundlich
#5,532 1 Kommentar 1 Reaktion 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
2.3k
Forks
1.3k
Ø Merge
1 T. 22 Std.
Gemergte PRs (30 T.)
35

Beschreibung

The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.

The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363

Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796

## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Öffne sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json bei den im Issue genannten inference_graviton-Einträgen. Vergleiche diese URIs mit der SageMaker-Graviton-Containerliste und dem verknüpften Deep Learning Containers-Commit und aktualisiere den veralteten PyTorch-Versionseintrag; als erledigt gilt die Aufgabe, wenn das SDK die verfügbare 2.6.0-Image-URI für Graviton-Bereitstellungen bereitstellt.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
aws, python, pytorch
Bereich
cloud, machine-learning
Issue-Typ
Bug
Schwierigkeit
2/5
Geschätzter Aufwand
1-3 Stunden
Aktivitätsstatus
Ruhig
Klarheit
Klar beschrieben
Anfängerfreundlichkeit
74/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.