aws / aws/sagemaker-python-sdk

model.deploy to allow for auto scale configuration

Geschlossen
#1,880 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
component: Inference APIs and Interfaces type: feature request
Vorherrschende Sprache
Python
Sterne
2.3k
Forks
1.3k
Ø Merge
1 T. 22 Std.
Gemergte PRs (30 T.)
35

Beschreibung

**Describe the feature you'd like**

today we deploy a model like so:

```python
model = SKLearn(
entry_point=script_path,
framework_version="0.20.0",
py_version="py3",
instance_type="ml.m5.2xlarge",
role=role,
sagemaker_session=sagemaker_session,
dependencies=[...],
)

predictor = model.deploy(
endpoint_name="some_name",
initial_instance_count=1,
instance_type="ml.m5.large",
predictor_cls=SKLearnPredictorJson,
)
```

**How would this feature be used? Please describe.**

When calling `model.deploy` it would be ideal if there was a way to set an autoscale policy (similar to how we can set `initial_instance_count`).

**Describe alternatives you've considered**

I'm still researching if I can use `SKLearn` class while also using boto3 to attach a policy.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Beginne beim Einstiegspunkt model.deploy und der Implementierung des SKLearn-Modells und prüfe anschließend die im Issue erwähnte boto3-Alternative. Ermittle die unterstützte Konfiguration der Autoscaling-Richtlinie und ihre API-Struktur; die Aufgabe ist abgeschlossen, wenn Aufrufer beim Deployment eines Modells Autoscaling konfigurieren können und das Verhalten durch die relevanten Tests abgedeckt ist.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
aws, machine-learning, python
Bereich
cloud, machine-learning
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
30/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.