aws / aws/sagemaker-python-sdk

PyTorch image_uris for graviton is outdated

未关闭 适合新手
#5,532 1 条评论 1 个 reaction 已指派 0 人 在 GitHub 查看
主要语言
Python
星标
2.3k
派生
1.3k
平均合并
1 天 22 小时
30 天内合并 PR
35

描述

The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.

The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363

Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796

## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.

贡献指南

打开贡献指南

调研方向

打开 sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json,定位 issue 中引用的 inference_graviton 条目。将这些 URI 与 SageMaker Graviton 容器列表和链接的 Deep Learning Containers commit 进行比较,然后更新过时的 PyTorch 版本条目;完成标准是 SDK 能为 Graviton 部署提供可用的 2.6.0 image URI。

由索引模型根据 Issue 内容生成。

评估

技术栈
aws, python, pytorch
领域
cloud, machine-learning
Issue 类型
缺陷
难度
2/5
预计耗时
1-3 小时
活跃度
冷清
描述清晰度
描述清楚
新手友好度
74/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。