googleapis / googleapis/nodejs-agentplatform

Support Fine Tuned Models from Vertex AI

Offen
#202 4 Kommentare 5 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
api: aiplatform priority: p3 type: feature request
Vorherrschende Sprache
TypeScript
Sterne
182
Forks
69
Ø Merge
1 T. 8 Std.
Gemergte PRs (30 T.)
10

Beschreibung

Vertex AI supports custom models by fine tuning PaLM2 and the Python library has support for accessing these custom models like below:

```python
import vertexai
from vertexai.language_models import TextGenerationModel

vertexai.init(project="1032674713011", location="us-central1")
parameters = {
"candidate_count": 1,
"max_output_tokens": 1024,
"temperature": 0.9,
"top_p": 1
}
model = TextGenerationModel.from_pretrained("text-bison@002")
model = model.get_tuned_model("projects/1032674713011/locations/us-central1/models/8723892491658461184")
response = model.predict(
"""asdfasdf""",
**parameters
)
print(f"Response from Model: {response.text}")
```

Request:
Extend the nodejs library so it has the ability to call fine tuned models.

Beitragsleitfaden

Beitragsleitfaden öffnen

Rechercherichtung

Der Issue nennt keine Repository-Dateien oder Testnamen. Beginne damit, die vorhandenen Einstiegspunkte der Node.js-Bibliothek zum Laden von Vertex AI-Modellen und für Vorhersagen zu ermitteln. Vergleiche sie mit dem gezeigten Python-Ablauf für fine-tuned-models und betrachte die Arbeit als abgeschlossen, wenn Aufrufer ein fine-tuned Vertex AI-Modell laden und aufrufen können.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
google-cloud, node.js, typescript
Bereich
ai, cloud
Issue-Typ
Feature
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
30/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.