Adding Bloom filter to small Parquet file bloats in size X1700
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
Converting a small, 14 rows/1 string column csv file to Parquet without bloom filter yields a 600B file, adding '.withBloomFilterEnabled(true)' to ParquetWriter then yields a 1049197B file.
It isn't clear what the extra space is used by.
Attached csv and bloated Parquet files.
**Reporter**: [Ze'ev Maor](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=WiredWolf)
#### Original Issue Attachments:
- [data_index_bloom.parquet](https://issues.apache.org/jira/secure/attachment/13039997/data_index_bloom.parquet)
- [data.csv](https://issues.apache.org/jira/secure/attachment/13039998/data.csv)
**Note**: *This issue was originally created as [PARQUET-2122](https://issues.apache.org/jira/browse/PARQUET-2122). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginne mit den angehängten data.csv und data_index_bloom.parquet und reproduziere dann die in der Issue beschriebene Konvertierung mit und ohne .withBloomFilterEnabled(true). Untersuche, wo der zusätzliche Speicherplatz zugewiesen wird, und definiere den Abschluss als das Vermeiden der ungeklärten Erweiterung von 600 B auf 1.049.197 B für diese kleine Eingabe.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data
- Issue-Typ
- Bug
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Muss geklärt werden
- Anfängerfreundlichkeit
- 25/100