Parquet statistics stats_null_count is wrong for large json string colums
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
stats_null_count always None when one of the columns values is about 46977 characters length
**Reporter**: [Rotem Levi](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=rotem.l)
#### Original Issue Attachments:
- [part-00000-7e5dcc44-d176-42ab-98b9-664cace5d433-c000.snappy.parquet](https://issues.apache.org/jira/secure/attachment/13058765/part-00000-7e5dcc44-d176-42ab-98b9-664cace5d433-c000.snappy.parquet)
**Note**: *This issue was originally created as [PARQUET-2306](https://issues.apache.org/jira/browse/PARQUET-2306). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginne damit, das gemeldete Verhalten von stats_null_count mit der angehängten Datei part-00000-7e5dcc44-d176-42ab-98b9-664cace5d433-c000.snappy.parquet und einer Spalte zu reproduzieren, die einen ungefähr 46.977 Zeichen langen JSON-String enthält. Verfolge, wie Parquet-Statistiken für diese Spalte gelesen werden; abgeschlossen ist die Aufgabe, wenn stats_null_count korrekt gemeldet wird, statt immer None zu sein.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- databases
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 35/100