aws / aws/sagemaker-python-sdk

V3 support for many tasks as possible in Huggingface, starting with "text-to-image"

Offen
#5,390 0 Kommentare 3 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Vorherrschende Sprache
Python
Sterne
2.3k
Forks
1.3k
Ø Merge
1 T. 22 Std.
Gemergte PRs (30 T.)
35

Beschreibung

With V2, the `HuggingFace` class allowed to do inference on many different models performing different tasks. Moving to V3 many of the available tasks are not functional anymore.

I would like to see them working again with the V3 `ModelBuilder` interface, and to be able to use a short code snippet to deploy a model.
Here's the complete list of the tasks we used to support:
```
"text-classification",
"token-classification",
"table-question-answering",
"question-answering",
"zero-shot-classification",
"translation",
"summarization",
"feature-extraction",
"text-generation",
"fill-mask",
"sentence-similarity",
"automatic-speech-recognition",
"text-to-image",
"text-to-speech",
"audio-to-audio",
"audio-classification",
"image-classification",
"object-detection",
"image-segmentation"
```

The most important tasks for us are "text-generation" (already working on V3) and "text-to-image" (currently broken). If you think you can make at least these two work it would be great.

An example of model that we would like to test is **black-forest-labs/FLUX.2-dev**.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Es werden keine Dateien oder Tests genannt. Beginne damit, den V3 ModelBuilder-Pfad zu lesen, der text-generation bereits unterstützt, und untersuche anschließend die Bereitstellung des bereitgestellten FLUX.2-dev-Modells für text-to-image. Als abgeschlossen gilt die Aufgabe, wenn mindestens text-generation und text-to-image über V3 funktionieren, zusammen mit einem kurzen Bereitstellungssnippet, und die weitergehende Unterstützung der aufgelisteten Aufgaben, soweit möglich, behandelt wurde.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
aws, huggingface, python
Bereich
cloud, machine-learning
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
32/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.