apache / apache/parquet-java

Push predicates into the whole read path

Offen
#1,464 2 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Java Component: Parquet Priority: Major Type: enhancement
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Regarding primitive types, there are 3 import primitive types set:
- the file schema primitive type set
- the requested schema primitive type set
- the predicates primitive type set

Currently the file schema primitive type set and the requested schema primitive type set has been pushed into the whole read path, but not the the predicates primitive type set.

This brings some problems like:
- PARQUET-389, SPARK-11103, SPARK-11434
- PARQUET-425, PARQUET-426
- PARQUET-295

This issue propose to push the predicates primitive type set into the whole read path as well. When this is resolved, hopefully the issues listed above would also be resolved as well.

Attached is a change proposal.

**Reporter**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
**Assignee**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
#### Original Issue Attachments:
- [Parquet-427 v0.1.pdf](https://issues.apache.org/jira/secure/attachment/12782011/Parquet-427+v0.1.pdf)

**Note**: *This issue was originally created as [PARQUET-427](https://issues.apache.org/jira/browse/PARQUET-427). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginnen Sie mit dem angehängten Parquet-427 v0.1 change proposal und verfolgen Sie, wie die primitiven Typsätze des Datei-Schemas und des angeforderten Schemas bereits durch den Lesepfad weitergereicht werden. Als abgeschlossen gilt die Arbeit, wenn der primitive Typsatz der Prädikate diesem Pfad ebenfalls folgt und die damit verbundenen Probleme PARQUET-389, SPARK-11103, SPARK-11434, PARQUET-425, PARQUET-426 und PARQUET-295 behoben sind.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data
Issue-Typ
Feature
Schwierigkeit
5/5
Geschätzter Aufwand
Über eine Woche
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.