apache / apache/parquet-java

Reduce memory pressure when reading footers

Offen
#1,385 1 Kommentar 0 Reaktionen 0 zugewiesene Personen Auf GitHub ansehen
Component: Parquet Priority: Major Type: bug
Vorherrschende Sprache
Java
Sterne
3.1k
Forks
1.6k
Ø Merge
3 T. 12 Std.
Gemergte PRs (30 T.)
33

Beschreibung

I encountered OOMs reading metadata for a dataset with 500+ columns, many of them quite sparse.

We can reduce memory utilization significantly.

**Reporter**: [Dmitriy V. Ryaboy](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=dvryaboy) / @dvryaboy

**Note**: *This issue was originally created as [PARQUET-11](https://issues.apache.org/jira/browse/PARQUET-11). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*

Beitragsleitfaden

Für dieses Repository ist kein Beitragsleitfaden indexiert

Rechercherichtung

Beginne damit, die Out-of-Memory-Bedingung beim Lesen der Metadaten eines Datensatzes mit mehr als 500 Sparse-Spalten zu reproduzieren, und verfolge anschließend den Pfad zum Lesen des Footers. Das Issue nennt keine Dateien oder Tests. Identifiziere daher den relevanten Metadaten- und Footer-Code, bevor du über die Änderung entscheidest. Die Aufgabe ist erledigt, wenn die Speichernutzung wesentlich geringer ist, ohne das Ergebnis des Metadatenlesens zu ändern.

Vom Indexierungsmodell aus dem Issue-Text verfasst.

Bewertung

Tech-Stack
java
Bereich
data-engineering, performance
Issue-Typ
Bug
Schwierigkeit
4/5
Geschätzter Aufwand
3-5 Tage
Aktivitätsstatus
Veraltet
Klarheit
Muss geklärt werden
Anfängerfreundlichkeit
30/100

Neue Issues direkt in Ihr Postfach

Eine kurze Übersicht über anfängerfreundliche GitHub-Issues.