apache / apache/parquet-java

Improve dictionary filter evaluating notEq

Ouverte
#2,743 0 commentaires 0 réactions 0 personnes assignées Voir sur GitHub
Component: Parquet Priority: Minor Type: enhancement
Langage dominant
Java
Étoiles
3.1k
Forks
1.6k
Merge moyen
3 j 12 h
PR mergées (30 j)
33

Description

When evaluating `notEq`, if the column may contain nulls and the `notEq` value is non-null, the row-group must not be skipped. In such scenario reading dictionary and compare values is not necessary.

**Reporter**: [Yujiang Zhong](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=zhongyuj) / @zhongyujiang

**Note**: *This issue was originally created as [PARQUET-2245](https://issues.apache.org/jira/browse/PARQUET-2245). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Guide de contribution

Aucun guide de contribution indexé pour ce dépôt

Piste de recherche

L’issue ne nomme aucun fichier source, test ni point d’entrée. Commencez par localiser l’implémentation du filtre de dictionnaire et ses tests, puis reproduisez le cas notEq où la colonne peut contenir des valeurs null et confirmez que le row group n’est pas ignoré sans comparaison inutile du dictionnaire.

Rédigé par le modèle d'indexation à partir du texte de l'issue.

Évaluation

Stack technique
java
Domaine
data-engineering
Type d'issue
Bug
Difficulté
3/5
Temps estimé
1-2 jours
Activité
À l'abandon
Clarté
Plutôt claire
Accessibilité débutants
35/100

Recevez les nouvelles issues par e-mail

Un résumé court des issues GitHub adaptées aux débutants.