Possibility to deploy tensorflow-java to AppEngine
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Java
- Sterne
- 928
- Forks
- 227
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
I was trying to run ML Inference with tensorflow-java deployed to AppEngine, but quickly failed with this error:
ERROR: (gcloud.app.deploy) Cannot upload file
[/root/repo/target/appengine-staging/WEB-INF/lib/tensorflow-core-api-0.3.3-linux-x86_64.jar],
which has size [62305961] (greater than maximum allowed size of [33554432]).
Which means that AppEngine forbids to deploy any single file that's bigger than 32Mb. And the jar for linux-x86_64 is ~62Mb right now. It is confirmed there: https://cloud.google.com/appengine/quotas#Code
Just checking if someone has any advice/workaround in mind?
Like, is it possible to maybe do a custom-build (I only need to run Inference of SavedModelBundle, nothing else) of tensorflow-java for Linux, to fit in under 32Mb? Or, split the jar into multiple sub-32Mb files?
Not looking for AppEngine advice (as this repo is not a right place for it), but for something that can be done with this library itself. 🙏
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Überprüfe zuerst die Paketierung von tensorflow-core-api-0.3.3-linux-x86_64.jar und den SavedModelBundle-Inferenzpfad. Ermittle, ob eine bibliotheksseitige Paketierungs- oder Build-Änderung App Engines Limit von 32 MB pro Datei erfüllen kann, und schließe die Arbeit mit einem reproduzierbaren Deployment-Ansatz ab.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- google-cloud, java
- Bereich
- cloud
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100