aws / aws/sagemaker-python-sdk

model.deploy to allow for auto scale configuration

Cerrado
#1,880 2 comentarios 0 reacciones 0 asignados Ver en GitHub
component: Inference APIs and Interfaces type: feature request
Lenguaje dominante
Python
Estrellas
2.3k
Forks
1.3k
Merge medio
1 d 22 h
PR fusionados (30 d)
35

Descripción

**Describe the feature you'd like**

today we deploy a model like so:

```python
model = SKLearn(
entry_point=script_path,
framework_version="0.20.0",
py_version="py3",
instance_type="ml.m5.2xlarge",
role=role,
sagemaker_session=sagemaker_session,
dependencies=[...],
)

predictor = model.deploy(
endpoint_name="some_name",
initial_instance_count=1,
instance_type="ml.m5.large",
predictor_cls=SKLearnPredictorJson,
)
```

**How would this feature be used? Please describe.**

When calling `model.deploy` it would be ideal if there was a way to set an autoscale policy (similar to how we can set `initial_instance_count`).

**Describe alternatives you've considered**

I'm still researching if I can use `SKLearn` class while also using boto3 to attach a policy.

Guía de contribución

Abrir la guía de contribución

Línea de trabajo

Empieza por el punto de entrada model.deploy y la implementación del modelo SKLearn; después, revisa la alternativa boto3 mencionada en el issue. Determina la configuración compatible de la política de autoscaling y la forma de su API; se considerará terminado cuando los llamadores puedan configurar autoscaling al desplegar un modelo y el comportamiento esté cubierto por las pruebas relevantes.

Escrito por el modelo de indexación a partir del texto del issue.

Evaluación

Stack tecnológico
aws, machine-learning, python
Área
cloud, machine-learning
Tipo de issue
Nueva funcionalidad
Dificultad
5/5
Tiempo estimado
Más de una semana
Estado de actividad
Estancado
Claridad
Bastante claro
Aptitud para principiantes
30/100

Recibe los nuevos issues en tu correo

Un resumen breve de issues de GitHub para principiantes.