aws / aws/sagemaker-python-sdk

V3 support for many tasks as possible in Huggingface, starting with "text-to-image"

Aperta
#5,390 0 commenti 3 reazioni 0 assegnatari Vedi su GitHub
Lingua principale
Python
Stelle
2.3k
Fork
1.3k
Merge medio
1g 22h
PR unite (30g)
35

Descrizione

With V2, the `HuggingFace` class allowed to do inference on many different models performing different tasks. Moving to V3 many of the available tasks are not functional anymore.

I would like to see them working again with the V3 `ModelBuilder` interface, and to be able to use a short code snippet to deploy a model.
Here's the complete list of the tasks we used to support:
```
"text-classification",
"token-classification",
"table-question-answering",
"question-answering",
"zero-shot-classification",
"translation",
"summarization",
"feature-extraction",
"text-generation",
"fill-mask",
"sentence-similarity",
"automatic-speech-recognition",
"text-to-image",
"text-to-speech",
"audio-to-audio",
"audio-classification",
"image-classification",
"object-detection",
"image-segmentation"
```

The most important tasks for us are "text-generation" (already working on V3) and "text-to-image" (currently broken). If you think you can make at least these two work it would be great.

An example of model that we would like to test is **black-forest-labs/FLUX.2-dev**.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

Non sono indicati file o test. Inizia leggendo il percorso V3 ModelBuilder che supporta già text-generation, quindi analizza il deployment del modello FLUX.2-dev fornito per text-to-image. Il lavoro sarà considerato completato quando almeno text-generation e text-to-image funzioneranno tramite V3 con un breve snippet di deployment, e il supporto più ampio per le attività elencate sarà stato affrontato dove possibile.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
aws, huggingface, python
Ambito
cloud, machine-learning
Tipo di issue
Funzionalità
Difficoltà
5/5
Tempo stimato
Più di una settimana
Stato di attività
Ferma
Chiarezza
Abbastanza chiara
Idoneità per principianti
32/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.