googleapis / googleapis/nodejs-agentplatform
Support Fine Tuned Models from Vertex AI
- Lingua principale
- TypeScript
- Stelle
- 182
- Fork
- 69
- Merge medio
- 1g 8h
- PR unite (30g)
- 10
Descrizione
Vertex AI supports custom models by fine tuning PaLM2 and the Python library has support for accessing these custom models like below:
```python
import vertexai
from vertexai.language_models import TextGenerationModel
vertexai.init(project="1032674713011", location="us-central1")
parameters = {
"candidate_count": 1,
"max_output_tokens": 1024,
"temperature": 0.9,
"top_p": 1
}
model = TextGenerationModel.from_pretrained("text-bison@002")
model = model.get_tuned_model("projects/1032674713011/locations/us-central1/models/8723892491658461184")
response = model.predict(
"""asdfasdf""",
**parameters
)
print(f"Response from Model: {response.text}")
```
Request:
Extend the nodejs library so it has the ability to call fine tuned models.
Guida per i contributori
Apri la guida per i contributori
Direzione di ricerca
L’issue non fornisce nomi di file del repository né nomi di test; inizia individuando gli entry point esistenti della libreria Node.js per il caricamento dei modelli Vertex AI e le predizioni. Confrontali con il flusso Python mostrato per i fine-tuned-models e considera il lavoro completato quando i callers possono caricare e invocare un modello Vertex AI fine-tuned.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- google-cloud, node.js, typescript
- Ambito
- ai, cloud
- Tipo di issue
- Funzionalità
- Difficoltà
- 4/5
- Tempo stimato
- 3-5 giorni
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 30/100