Add abstractions for parsing TFRecord Files using `tf.Example` and `tf.io` ops
Dieses Issue hat noch niemand übernommen.
- Vorherrschende Sprache
- Java
- Sterne
- 928
- Forks
- 227
- PR-Merge-Kennzahlen
- Keine gemergten PRs in 30 T.
Beschreibung
System information
- TensorFlow version (you are using): Latest master of TensorFlow Java
- Are you willing to contribute it (Yes/No): No (working on other things at the moment)
Describe the feature and the current behavior/state.
Currently in Java, we have access to the core tf.io ops such as tf.parseExample, tf.parseSingleExample, tf.decodeRaw etc. In order to serialize TF Record datasets and read in datasets from the tensorflow_datasets buckets, for example, we need to be easily able to use these ops.
In Python, the relevant abstractions built on top of tf.io are defined in parsing_config.py. Specifically it will be very helpful to have abstractions such as:
- Various feature types:
FixedLenFeature,SparseFeature,FixedLenSequenceFeature, etc... - The
_ParseOpParamsclass which wraps the parameters totf.parseExample - Standardizing a flow for defining features in a TFRecord file.
See these examples which relate to using the parse-example ops, and reading TFRecord files
Will this change the current api? How?
This will add APIs for serializing / parsing examples to / from TF Record files
Who will benefit with this feature?
Anyone using datasets stored as TFRecord flies from TensorFlow java (for example, to load datasets from the tensorflow_datasets GCP bucket)
Any Other info.
Feel free to get in touch with me anytime to discuss! Happy to help.
Beitragsleitfaden
Erste Schritte
- Lies das ganze Issue und danach den Beitragsleitfaden des Projekts.
- Schreib ins Issue, dass du es übernimmst — das erspart doppelte Arbeit.
- Forke das Repository und arbeite in einem Branch.
- Öffne einen Pull Request, der die Issue-Nummer nennt.
Rechercherichtung
Beginne damit, TensorFlow Pythons parsing_config.py und die im Issue referenzierten Java tf.io parse-example-Operationen zu lesen. Vergleiche die aufgeführten Feature-Abstraktionen und _ParseOpParams mit den bestehenden Java-Bindings und sieh dir anschließend die TFRecord- und tf.Example-Beispiele an. Als abgeschlossen gilt die Aufgabe, wenn Java-APIs das Definieren von Features sowie das Serialisieren und Parsen von Beispielen aus TFRecord-Dateien unterstützen.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- api, machine-learning
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 25/100