aws / aws/sagemaker-python-sdk
PyTorch image_uris for graviton is outdated
- Ngôn ngữ chính
- Python
- Star
- 2.3k
- Fork
- 1.3k
- Merge trung bình
- 1 ngày 22 giờ
- Pull request đã merge (30 ngày)
- 35
Mô tả
The list of `inference_graviton` image URIs is out-of-date, making it difficult to deploy models on graviton with the latest PyTorch version.
The SDK says 2.4.0 is latest version:
https://github.com/aws/sagemaker-python-sdk/blob/ad190b995c492ce3904a24502fec63e2eeb53abd/sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json#L1352-L1363
Although 2.6.0 has been available for a year:
- https://github.com/aws/deep-learning-containers/blob/master/available_images.md#sagemaker-framework-arm64graviton-containers-sm-support-only
- https://github.com/aws/deep-learning-containers/commit/b41cd39059d22041a156c4c47dfaf12438d1d796
## Workaround
It's still possible to manually provide the image URI to the ModelBuilder which leads to a working deployment.
Hướng dẫn đóng góp
Hướng nghiên cứu
Mở sagemaker-core/src/sagemaker/core/image_uri_config/pytorch.json tại các mục inference_graviton được nêu trong issue. So sánh các URI đó với danh sách container Graviton của SageMaker và commit Deep Learning Containers được liên kết, sau đó cập nhật mục phiên bản PyTorch đã lỗi thời; hoàn thành nghĩa là SDK cung cấp URI image 2.6.0 hiện có cho các triển khai Graviton.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- aws, python, pytorch
- Lĩnh vực
- cloud, machine-learning
- Loại issue
- Lỗi
- Độ khó
- 2/5
- Thời gian dự kiến
- 1-3 giờ
- Mức độ hoạt động
- Ít trao đổi
- Độ rõ ràng
- Đặc tả rõ ràng
- Mức phù hợp với người mới
- 74/100