aws / aws/sagemaker-hyperpod-cli

Inference commands do not allow to specify HyperPod Task Governance configurations

Aperta
#307 1 commento 0 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
41
Fork
95
Merge medio
23h 5m
PR unite (30g)
8

Descrizione

The inference commands to deploy JumpStart model or custom model do not allow to specify task governance configurations.

For example, the commands should support parameters that are similar to what is supported for PyTorch job submission:

```
--scheduler-type TEXT If specified, training job pod will be dispatched by specified scheduler. If not specified, the pod will be dispatched by default scheduler.
--queue-name TEXT Queue name for job scheduling
--priority TEXT Priority class for job scheduling
--preferred-topology TEXT Preferred topology annotation for scheduling
--required-topology TEXT Required topology annotation for scheduling
```

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non vengono indicati file o test. Inizia individuando le definizioni dei comandi di inferenza per JumpStart e il deployment di modelli personalizzati, quindi confronta le relative opzioni con i parametri esistenti per la sottomissione di job PyTorch. Il lavoro è completato quando entrambi i comandi di inferenza accettano e applicano le impostazioni di governance delle attività indicate, con una copertura adeguata per le nuove opzioni.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
aws, python
Ambito
cli, infrastructure
Tipo di issue
Funzionalità
Difficoltà
3/5
Tempo stimato
1-2 giorni
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
42/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.