Possibility to deploy tensorflow-java to AppEngine
Nessuno ha ancora preso questa issue.
- Lingua principale
- Java
- Stelle
- 928
- Fork
- 227
- Metriche di merge delle PR
- Nessuna PR unita negli ultimi 30g
Descrizione
I was trying to run ML Inference with tensorflow-java deployed to AppEngine, but quickly failed with this error:
ERROR: (gcloud.app.deploy) Cannot upload file
[/root/repo/target/appengine-staging/WEB-INF/lib/tensorflow-core-api-0.3.3-linux-x86_64.jar],
which has size [62305961] (greater than maximum allowed size of [33554432]).
Which means that AppEngine forbids to deploy any single file that's bigger than 32Mb. And the jar for linux-x86_64 is ~62Mb right now. It is confirmed there: https://cloud.google.com/appengine/quotas#Code
Just checking if someone has any advice/workaround in mind?
Like, is it possible to maybe do a custom-build (I only need to run Inference of SavedModelBundle, nothing else) of tensorflow-java for Linux, to fit in under 32Mb? Or, split the jar into multiple sub-32Mb files?
Not looking for AppEngine advice (as this repo is not a right place for it), but for something that can be done with this library itself. 🙏
Guida per i contributori
Apri la guida per i contributori
Come iniziare
- Leggi tutta la issue e poi la guida ai contributi del progetto.
- Commenta sulla issue per dire che te ne occupi tu — evita che due persone facciano lo stesso lavoro.
- Fai un fork del repository e lavora su un branch.
- Apri una pull request che faccia riferimento al numero della issue.
Direzione di ricerca
Esamina innanzitutto il packaging di tensorflow-core-api-0.3.3-linux-x86_64.jar e il percorso di inferenza di SavedModelBundle. Determina se una modifica al packaging o alla build lato libreria può rispettare il limite di App Engine di 32 MB per file, con un approccio di deployment riproducibile che consenta di contrassegnare il lavoro come completato.
Scritto dal modello di indicizzazione a partire dal testo della issue.
Valutazione
- Stack tecnologico
- google-cloud, java
- Ambito
- cloud
- Tipo di issue
- Funzionalità
- Difficoltà
- 5/5
- Tempo stimato
- Più di una settimana
- Stato di attività
- Ferma
- Chiarezza
- Da chiarire
- Idoneità per principianti
- 25/100