aws / aws/sagemaker-hyperpod-cli

JumpStart inference template does not include autoscaling configuration

Aperta
#309 0 commenti 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
41
Fork
95
Merge medio
23h 5m
PR unite (30g)
8

Descrizione

Autoscaling configuration, which is supported when deploying JumpStart models, is missing in the template. References:

https://github.com/aws/sagemaker-hyperpod-cli/blob/76066068e9dffd6a60e8fde4d01b912363e55052/hyperpod-jumpstart-inference-template/hyperpod_jumpstart_inference_template/v1_0/template.py#L1

https://docs.aws.amazon.com/sagemaker/latest/dg/sagemaker-hyperpod-model-deployment-deploy-js-kubectl.html#kubectl-prerequisites-setup-and-configuration

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Inizia da hyperpod-jumpstart-inference-template/hyperpod_jumpstart_inference_template/v1_0/template.py e confronta la configurazione generata con la documentazione del deployment kubectl di SageMaker HyperPod. Aggiungi alla template la configurazione di autoscaling supportata, quindi verifica che la configurazione di deployment generata la includa correttamente.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
python
Ambito
cloud, devops
Tipo di issue
Funzionalità
Difficoltà
2/5
Tempo stimato
1-3 ore
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
45/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.