aws / aws/sagemaker-python-sdk

model.deploy to allow for auto scale configuration

Fermée
#1,880 2 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
component: Inference APIs and Interfaces type: feature request
Langage dominant
Python
Étoiles
2.3k
Forks
1.3k
Merge moyen
1 j 22 h
PR mergées (30 j)
35

Description

**Describe the feature you'd like**

today we deploy a model like so:

```python
model = SKLearn(
entry_point=script_path,
framework_version="0.20.0",
py_version="py3",
instance_type="ml.m5.2xlarge",
role=role,
sagemaker_session=sagemaker_session,
dependencies=[...],
)

predictor = model.deploy(
endpoint_name="some_name",
initial_instance_count=1,
instance_type="ml.m5.large",
predictor_cls=SKLearnPredictorJson,
)
```

**How would this feature be used? Please describe.**

When calling `model.deploy` it would be ideal if there was a way to set an autoscale policy (similar to how we can set `initial_instance_count`).

**Describe alternatives you've considered**

I'm still researching if I can use `SKLearn` class while also using boto3 to attach a policy.

Guide de contribution

Ouvrir le guide de contribution

Piste de recherche

Commencez par le point d'entrée model.deploy et l'implémentation du modèle SKLearn, puis examinez l'alternative boto3 mentionnée dans l'issue. Déterminez la configuration prise en charge de la stratégie d'autoscaling et la forme de son API ; le travail est terminé lorsque les appelants peuvent configurer l'autoscaling lors du déploiement d'un modèle et que le comportement est couvert par les tests pertinents.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
aws, machine-learning, python
Domaine
cloud, machine-learning
Type d'issue
Fonctionnalité
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
30/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.