aws / aws/sagemaker-python-sdk

model.deploy to allow for auto scale configuration

已关闭
#1,880 2 条评论 0 个 reaction 已指派 0 人 在 GitHub 查看
component: Inference APIs and Interfaces type: feature request
主要语言
Python
星标
2.3k
派生
1.3k
平均合并
1 天 22 小时
30 天内合并 PR
35

描述

**Describe the feature you'd like**

today we deploy a model like so:

```python
model = SKLearn(
entry_point=script_path,
framework_version="0.20.0",
py_version="py3",
instance_type="ml.m5.2xlarge",
role=role,
sagemaker_session=sagemaker_session,
dependencies=[...],
)

predictor = model.deploy(
endpoint_name="some_name",
initial_instance_count=1,
instance_type="ml.m5.large",
predictor_cls=SKLearnPredictorJson,
)
```

**How would this feature be used? Please describe.**

When calling `model.deploy` it would be ideal if there was a way to set an autoscale policy (similar to how we can set `initial_instance_count`).

**Describe alternatives you've considered**

I'm still researching if I can use `SKLearn` class while also using boto3 to attach a policy.

贡献指南

打开贡献指南

调研方向

从 model.deploy 入口点和 SKLearn 模型实现开始,然后查看 issue 中提到的 boto3 替代方案。确定受支持的 autoscaling policy 配置及其 API 形态;当调用方可以在部署模型时配置 autoscaling,且相关测试覆盖了该行为时,即视为完成。

由索引模型根据 Issue 内容生成。

评估

技术栈
aws, machine-learning, python
领域
cloud, machine-learning
Issue 类型
功能
难度
5/5
预计耗时
一周以上
活跃度
停滞
描述清晰度
基本清楚
新手友好度
30/100

把新 issue 发到你的邮箱

精选适合新手参与的 GitHub issue 摘要。