Push predicates into the whole read path
- Langage dominant
- Java
- Étoiles
- 3.1k
- Forks
- 1.6k
- Merge moyen
- 3 j 12 h
- PR mergées (30 j)
- 33
Description
Regarding primitive types, there are 3 import primitive types set:
- the file schema primitive type set
- the requested schema primitive type set
- the predicates primitive type set
Currently the file schema primitive type set and the requested schema primitive type set has been pushed into the whole read path, but not the the predicates primitive type set.
This brings some problems like:
- PARQUET-389, SPARK-11103, SPARK-11434
- PARQUET-425, PARQUET-426
- PARQUET-295
This issue propose to push the predicates primitive type set into the whole read path as well. When this is resolved, hopefully the issues listed above would also be resolved as well.
Attached is a change proposal.
**Reporter**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
**Assignee**: [Liwei Lin(Inactive)](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=proflin) / @lw-lin
#### Original Issue Attachments:
- [Parquet-427 v0.1.pdf](https://issues.apache.org/jira/secure/attachment/12782011/Parquet-427+v0.1.pdf)
**Note**: *This issue was originally created as [PARQUET-427](https://issues.apache.org/jira/browse/PARQUET-427). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Guide de contribution
Aucun guide de contribution indexé pour ce dépôt
Piste de recherche
Commencez par la proposition de modification Parquet-427 v0.1 jointe et suivez la manière dont les ensembles de types primitifs du schéma du fichier et du schéma demandé circulent déjà dans le chemin de lecture. Le travail est terminé lorsque l’ensemble de types primitifs des prédicats suit lui aussi ce chemin et que les problèmes associés PARQUET-389, SPARK-11103, SPARK-11434, PARQUET-425, PARQUET-426 et PARQUET-295 sont traités.
Rédigé par le modèle d'indexation à partir du texte de l'issue.
Évaluation
- Stack technique
- java
- Domaine
- data
- Type d'issue
- Fonctionnalité
- Difficulté
- 5/5
- Temps estimé
- Plus d'une semaine
- Activité
- À l'abandon
- Clarté
- À clarifier
- Accessibilité débutants
- 25/100