googleapis / googleapis/nodejs-agentplatform
Support Fine Tuned Models from Vertex AI
- Vorherrschende Sprache
- TypeScript
- Sterne
- 182
- Forks
- 69
- Ø Merge
- 1 T. 8 Std.
- Gemergte PRs (30 T.)
- 10
Beschreibung
Vertex AI supports custom models by fine tuning PaLM2 and the Python library has support for accessing these custom models like below:
```python
import vertexai
from vertexai.language_models import TextGenerationModel
vertexai.init(project="1032674713011", location="us-central1")
parameters = {
"candidate_count": 1,
"max_output_tokens": 1024,
"temperature": 0.9,
"top_p": 1
}
model = TextGenerationModel.from_pretrained("text-bison@002")
model = model.get_tuned_model("projects/1032674713011/locations/us-central1/models/8723892491658461184")
response = model.predict(
"""asdfasdf""",
**parameters
)
print(f"Response from Model: {response.text}")
```
Request:
Extend the nodejs library so it has the ability to call fine tuned models.
Beitragsleitfaden
Rechercherichtung
Der Issue nennt keine Repository-Dateien oder Testnamen. Beginne damit, die vorhandenen Einstiegspunkte der Node.js-Bibliothek zum Laden von Vertex AI-Modellen und für Vorhersagen zu ermitteln. Vergleiche sie mit dem gezeigten Python-Ablauf für fine-tuned-models und betrachte die Arbeit als abgeschlossen, wenn Aufrufer ein fine-tuned Vertex AI-Modell laden und aufrufen können.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- google-cloud, node.js, typescript
- Bereich
- ai, cloud
- Issue-Typ
- Feature
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 30/100