googleapis / googleapis/nodejs-agentplatform

Support Fine Tuned Models from Vertex AI

Aperta
#202 4 commenti 5 reazioni 0 assegnatari Vedi su GitHub
api: aiplatform priority: p3 type: feature request
Lingua principale
TypeScript
Stelle
182
Fork
69
Merge medio
1g 8h
PR unite (30g)
10

Descrizione

Vertex AI supports custom models by fine tuning PaLM2 and the Python library has support for accessing these custom models like below:

```python
import vertexai
from vertexai.language_models import TextGenerationModel

vertexai.init(project="1032674713011", location="us-central1")
parameters = {
"candidate_count": 1,
"max_output_tokens": 1024,
"temperature": 0.9,
"top_p": 1
}
model = TextGenerationModel.from_pretrained("text-bison@002")
model = model.get_tuned_model("projects/1032674713011/locations/us-central1/models/8723892491658461184")
response = model.predict(
"""asdfasdf""",
**parameters
)
print(f"Response from Model: {response.text}")
```

Request:
Extend the nodejs library so it has the ability to call fine tuned models.

Guida per i contributori

Apri la guida per i contributori

Direzione di ricerca

L’issue non fornisce nomi di file del repository né nomi di test; inizia individuando gli entry point esistenti della libreria Node.js per il caricamento dei modelli Vertex AI e le predizioni. Confrontali con il flusso Python mostrato per i fine-tuned-models e considera il lavoro completato quando i callers possono caricare e invocare un modello Vertex AI fine-tuned.

Scritto dal modello di indicizzazione a partire dal testo della issue.

Valutazione

Stack tecnologico
google-cloud, node.js, typescript
Ambito
ai, cloud
Tipo di issue
Funzionalità
Difficoltà
4/5
Tempo stimato
3-5 giorni
Stato di attività
Ferma
Chiarezza
Da chiarire
Idoneità per principianti
30/100

Ricevi le nuove issue nella tua casella

Un breve riepilogo di issue GitHub adatte ai principianti.