apache / apache/parquet-java

Adding Bloom filter to small Parquet file bloats in size X1700

Offen
#2,667 4 Kommentare 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: CLI Component: Java Component: Parquet Priority: Critical Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

Converting a small, 14 rows/1 string column csv file to Parquet without bloom filter yields a 600B file, adding '.withBloomFilterEnabled(true)' to ParquetWriter then yields a 1049197B file.

It isn't clear what the extra space is used by.

Attached csv and bloated Parquet files.

**Reporter**: [Ze'ev Maor](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=WiredWolf)
#### Original Issue Attachments:
- [data_index_bloom.parquet](https://issues.apache.org/jira/secure/attachment/13039997/data_index_bloom.parquet)
- [data.csv](https://issues.apache.org/jira/secure/attachment/13039998/data.csv)

**Note**: *This issue was originally created as [PARQUET-2122](https://issues.apache.org/jira/browse/PARQUET-2122). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne mit den angehängten data.csv und data_index_bloom.parquet und reproduziere dann die in der Issue beschriebene Konvertierung mit und ohne .withBloomFilterEnabled(true). Untersuche, wo der zusätzliche Speicherplatz zugewiesen wird, und definiere den Abschluss als das Vermeiden der ungeklärten Erweiterung von 600 B auf 1.049.197 B für diese kleine Eingabe.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
25/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.