Push predicates into the whole read path
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
Regarding primitive types, there are 3 import primitive types set:
- the file schema primitive type set
- the requested schema primitive type set
- the predicates primitive type set
Currently the file schema primitive type set and the requested schema primitive type set has been pushed into the whole read path, but not the the predicates primitive type set.
This brings some problems like:
- PARQUET-389, SPARK-11103, SPARK-11434
- PARQUET-425, PARQUET-426
- PARQUET-295
This issue propose to push the predicates primitive type set into the whole read path as well. When this is resolved, hopefully the issues listed above would also be resolved as well.
Attached is a change proposal.
**Reporter**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
**Assignee**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
#### Original Issue Attachments:
- [Parquet-427 v0.1.pdf](https://issues.apache.org/jira/secure/attachment/12782011/Parquet-427+v0.1.pdf)
**Note**: *This issue was originally created as [PARQUET-427](https://issues.apache.org/jira/browse/PARQUET-427). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginnen Sie mit dem angehängten Parquet-427 v0.1 change proposal und verfolgen Sie, wie die primitiven Typsätze des Datei-Schemas und des angeforderten Schemas bereits durch den Lesepfad weitergereicht werden. Als abgeschlossen gilt die Arbeit, wenn der primitive Typsatz der Prädikate diesem Pfad ebenfalls folgt und die damit verbundenen Probleme PARQUET-389, SPARK-11103, SPARK-11434, PARQUET-425, PARQUET-426 und PARQUET-295 behoben sind.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data
- Issue-Typ
- Feature
- Schwierigkeit
- 5/5
- Geschätzter Aufwand
- Über eine Woche
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100