aws / aws/sagemaker-python-sdk

PyTorch image_uris for graviton is outdated

Abierto Apto para principiantes
#5,532 1 comentario 1 reacción 0 asignados Ver en GitHub
Lenguaje dominante
Python
Estrellas
2.3k
Forks
1.3k
Merge medio
1 d 22 h
PR fusionados (30 d)
35

Descripción

The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.

The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363

Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796

## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Abre sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json en las entradas inference_graviton citadas en el issue. Compara esas URIs con la lista de contenedores Graviton de SageMaker y el commit vinculado de Deep Learning Containers; se considera terminado cuando el SDK expone la URI de imagen 2.6.0 disponible para implementaciones de Graviton.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
aws, python, pytorch
Área
cloud, machine-learning
Tipo de issue
Error
Dificultad
2/5
Tiempo estimado
1-3 horas
Estado de actividad
Tranquilo
Claridad
Bien especificado
Aptitud para principiantes
74/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.