tensorflow / tensorflow/java

Add abstractions for parsing TFRecord Files using `tf.Example` and `tf.io` ops

Offen
#58 4 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen

Dieses Issue hat noch niemand übernommen.

Vorherrschende Sprache
Java
Sterne
928
Forks
227
PR-Merge-Kennzahlen
Keine gemergten PRs in 30 T.

Beschreibung

System information

  • TensorFlow version (you are using): Latest master of TensorFlow Java
  • Are you willing to contribute it (Yes/No): No (working on other things at the moment)

Describe the feature and the current behavior/state.
Currently in Java, we have access to the core tf.io ops such as tf.parseExample, tf.parseSingleExample, tf.decodeRaw etc. In order to serialize TF Record datasets and read in datasets from the tensorflow_datasets buckets, for example, we need to be easily able to use these ops.

In Python, the relevant abstractions built on top of tf.io are defined in parsing_config.py. Specifically it will be very helpful to have abstractions such as:

  • Various feature types: FixedLenFeature, SparseFeature, FixedLenSequenceFeature, etc...
  • The _ParseOpParams class which wraps the parameters to tf.parseExample
  • Standardizing a flow for defining features in a TFRecord file.

See these examples which relate to using the parse-example ops, and reading TFRecord files

Will this change the current api? How?

This will add APIs for serializing / parsing examples to / from TF Record files

Who will benefit with this feature?

Anyone using datasets stored as TFRecord flies from TensorFlow java (for example, to load datasets from the tensorflow_datasets GCP bucket)

Any Other info.

Feel free to get in touch with me anytime to discuss! Happy to help.

Beitragsleitfaden

Beitragsleitfaden öffnen

Erste Schritte

  1. Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
  2. Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
  3. Forke das Repository und arbeite in einem Branch.
  4. Öffne einen Pull Request, der die Issue-Nummer nennt.

Rechercherichtung

Beginne damit, TensorFlow Pythons parsing_config.py und die im Issue referenzierten Java tf.io parse-example-Operationen zu lesen. Vergleiche die aufgeführten Feature-Abstraktionen und _ParseOpParams mit den bestehenden Java-Bindings und sieh dir anschließend die TFRecord- und tf.Example-Beispiele an. Als abgeschlossen gilt die Aufgabe, wenn Java-APIs das Definieren von Features sowie das Serialisieren und Parsen von Beispielen aus TFRecord-Dateien unterstützen.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
api, machine-learning
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Größtenteils klar
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.