tensorflow / tensorflow/java

Possibility to deploy tensorflow-java to AppEngine

Ouverte
#400 6 commentaires 2 réactions 0 personnes assignées Voir sur GitHub

Personne n'a encore pris cette issue.

Langage dominant
Java
Étoiles
928
Forks
227
Métriques de merge des PR
Aucune PR mergée en 30 j

Description

I was trying to run ML Inference with tensorflow-java deployed to AppEngine, but quickly failed with this error:

ERROR: (gcloud.app.deploy) Cannot upload file
 [/root/repo/target/appengine-staging/WEB-INF/lib/tensorflow-core-api-0.3.3-linux-x86_64.jar], 
 which has size [62305961] (greater than maximum allowed size of [33554432]).

Which means that AppEngine forbids to deploy any single file that's bigger than 32Mb. And the jar for linux-x86_64 is ~62Mb right now. It is confirmed there: https://cloud.google.com/appengine/quotas#Code

Just checking if someone has any advice/workaround in mind?

Like, is it possible to maybe do a custom-build (I only need to run Inference of SavedModelBundle, nothing else) of tensorflow-java for Linux, to fit in under 32Mb? Or, split the jar into multiple sub-32Mb files?

Not looking for AppEngine advice (as this repo is not a right place for it), but for something that can be done with this library itself. 🙏

Guide de contribution

Ouvrir le guide de contribution

Par où commencer

  1. Lisez l'issue en entier, puis le guide de contribution du projet.
  2. Signalez en commentaire que vous la prenez — cela évite que deux personnes fassent le même travail.
  3. Forkez le dépôt et travaillez sur une branche.
  4. Ouvrez une pull request qui référence le numéro de l'issue.

Piste de recherche

Examinez d’abord le packaging de tensorflow-core-api-0.3.3-linux-x86_64.jar et le chemin d’inférence de SavedModelBundle. Déterminez si une modification du packaging ou du build côté bibliothèque peut respecter la limite de 32 MB par fichier d’App Engine, avec une approche de déploiement reproductible permettant de marquer le travail comme terminé.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
google-cloud, java
Domaine
cloud
Type d'issue
Fonctionnalité
Difficulté
5/5
Temps estimé
Plus d'une semaine
Activité
À l'abandon
Clarté
À clarifier
Accessibilité débutants
25/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.