googleapis / googleapis/python-genai
Vertex AI: unable to use explicit context cache with fine-tuned model
@Venkaiahbabuneelam ci sta già lavorando.
Dal 10/3/2026.
- Lingua principale
- Python
- Stelle
- 4k
- Fork
- 1k
- Merge medio
- 2g 12h
- PR unite (30g)
- 41
Descrizione
Google's docs say you can use an explicit context cache with fine-tuned models: https://docs.cloud.google.com/vertex-ai/generative-ai/docs/context-cache/context-cache-for-tuned-gemini
However, following the instructions in this page to create a context cache with a fine-tuned model (in this case, tuned from gemini-2.5-flash-lite, but same issue occurs with any base model) always gives this error for the caches.create call:
{
"error": {
"code": 501,
"message": "Explicit cache is not supported for fined tuned `projects/840939471922/locations/us-central1/models/8676953240757075968@1`.",
"status": "UNIMPLEMENTED"
}
}
Any ideas what could be wrong, and/or have working code demonstrating how to create a context cache for a fine-tuned model?
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Valutazione
Questa issue non è ancora stata valutata.