stream through files when writing the _metadata file to reduce memory usage
- Vorherrschende Sprache
- Java
- Sterne
- 3.1k
- Forks
- 1.6k
- Ø Merge
- 3 T. 12 Std.
- Gemergte PRs (30 T.)
- 33
Beschreibung
Currently we load all the footers of the part files in memory in the committer to write the _metadata file.
We could open the _metadata file first and then add the metadata for each part file one by one. That would reduce the required memory.
**Reporter**: [Julien Le Dem](https://issues.apache.org/jira/secure/ViewProfile.jspa?name=julienledem) / @julienledem
**Note**: *This issue was originally created as [PARQUET-91](https://issues.apache.org/jira/browse/PARQUET-91). Please see the [migration documentation](https://issues.apache.org/jira/browse/PARQUET-2502) for further details.*
Beitragsleitfaden
Für dieses Repository ist kein Beitragsleitfaden indexiert
Rechercherichtung
Beginne im Commiter-Code, der die _metadata-Datei schreibt, und verfolge, wie footers aus part files derzeit geladen werden. Die Änderung ist abgeschlossen, wenn Metadaten jeweils für eine part file geschrieben werden, ohne alle footers im Speicher zu behalten; der payload nennt keine bestimmten Dateien oder auszuführenden Tests.
Vom Indexierungsmodell aus dem Issue-Text verfasst.
Bewertung
- Tech-Stack
- java
- Bereich
- data-engineering
- Issue-Typ
- Refactoring
- Schwierigkeit
- 4/5
- Geschätzter Aufwand
- 3-5 Tage
- Aktivitätsstatus
- Veraltet
- Klarheit
- Größtenteils klar
- Anfängerfreundlichkeit
- 35/100