aws / aws/sagemaker-python-sdk
model.deploy to allow for auto scale configuration
- Ngôn ngữ chính
- Python
- Star
- 2.3k
- Fork
- 1.3k
- Merge trung bình
- 1 ngày 22 giờ
- Pull request đã merge (30 ngày)
- 35
Mô tả
**Describe the feature you'd like**
today we deploy a model like so:
```python
model = SKLearn(
entry_point=script_path,
framework_version="0.20.0",
py_version="py3",
instance_type="ml.m5.2xlarge",
role=role,
sagemaker_session=sagemaker_session,
dependencies=[...],
)
predictor = model.deploy(
endpoint_name="some_name",
initial_instance_count=1,
instance_type="ml.m5.large",
predictor_cls=SKLearnPredictorJson,
)
```
**How would this feature be used? Please describe.**
When calling `model.deploy` it would be ideal if there was a way to set an autoscale policy (similar to how we can set `initial_instance_count`).
**Describe alternatives you've considered**
I'm still researching if I can use `SKLearn` class while also using boto3 to attach a policy.
Hướng dẫn đóng góp
Hướng nghiên cứu
Bắt đầu từ entry point model.deploy và phần triển khai model SKLearn, sau đó xem xét phương án thay thế boto3 được đề cập trong issue. Xác định cấu hình policy autoscaling được hỗ trợ và dạng API của nó; công việc được xem là hoàn tất khi các caller có thể cấu hình autoscaling trong lúc deploy model và hành vi này được các test liên quan bao phủ.
Do mô hình lập chỉ mục viết ra từ nội dung của issue.
Đánh giá
- Công nghệ
- aws, machine-learning, python
- Lĩnh vực
- cloud, machine-learning
- Loại issue
- Tính năng
- Độ khó
- 5/5
- Thời gian dự kiến
- Hơn một tuần
- Mức độ hoạt động
- Đình trệ
- Độ rõ ràng
- Khá rõ ràng
- Mức phù hợp với người mới
- 30/100